Python爬虫建站入门手记

#Python爬虫建站入门手记| 来源: 网络整理| 查看: 265

从今天起，我将在这里更新一个系列的python简单爬虫到建立网站的实践手记。

内容将会从最简单的开始，环境搭建，基本爬虫，入库，用Django建立可供用户访问的网站，网站部署。

同时打算涉及简单的异步爬虫，piplibe，队列等等。

为了方便，将使用django和sqlite3来作为例子，虽然有时候这并不是最合适的场景。。

最终目的：一个能用的自动更新的垃圾站

下面进入正题。

第一部分，买VPS，装环境。

本文的一切操作都在vps上

在Runabove建立最便宜的instance.

选择魁省机房-Sandbox-M-Ubuntu14.10-输入Instace名字"PythonSpider"-FireUp!

不出一分钟，VPS就建立好了。

用SSH 连接服务器

先建立一个screen，顺手更新apt-get,以后都在这里面操作，避免掉线导致任务中断。

bashscreen -S spider # 取名叫spider的screen sudo apt-get update sudp apt-get upgrade

再顺手安装一些肯定会用的东西

bashsudo apt-get install gcc python-dev -y sudo - #这一步以后，用户就是root了记住 nginx=stable # use nginx=development for latest development version add-apt-repository ppa:nginx/$nginx apt-get update apt-get install nginx -y apt-get install libxml2-dev libxslt1-dev lib32z1-dev -y

装pip和virtualenv

bashwget https://bootstrap.pypa.io/get-pip.py python get-pip.py pip install virtualenv

建立~/venv目录，建立virtualenv, 激活virtualenv

bashmkdir ~/venv cd ~/venv virtualenv spider source ~/venv/spider/bin/activate

之后，shell提示符应该是这样

安装django(1.7)

bashpip install django cd ~ # 返回用户目录

5秒钟后，django安装完毕，现在开始建立项目目录(Django的project)。我们爬虫站点的所有文件都放在里面。

bashdjango-admin startproject python_spider

再测试下安装是否成功

bashservice nginx stop # 为毛? 因为RunAbove的8000神马的端口不好用 python manage.py runserver 0.0.0.0:80 # 只能用80，真蛋疼

现在访问192.99.71.91,我就能看到Django的示例页面没骗你吧？好了，看一眼能用就ctrl+c把服务器关掉。

然后，再建立一个app

bashcd python_spider python manage.py startapp web

所以，现在我有一个Django项目，叫python_spider, 它里面有个app叫web.

未完待续。。。(点击下面阅读)下一篇，是简单Python爬虫的编写。

文章来源：segmentfault，作者：eric。如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件至：sean.li#ucloud.cn（邮箱中#请改为@）进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容。

后台-系统设置-扩展变量-手机广告位-内容正文底部

【本文地址】

公司简介

联系我们